Micron Cách Mạng Bộ Nhớ HBM: HBM4e Tùy Chỉnh Đột Phá Công Nghệ!

Micron vừa công bố thông tin cập nhật cực kỳ ấn tượng về chương trình HBM4 và HBM4e của mình, hứa hẹn một cuộc cách mạng trong lĩnh vực bộ nhớ. HBM4 thế hệ tiếp theo, với giao diện 2048-bit, dự kiến sẽ được sản xuất hàng loạt vào năm 2026. Nhưng điểm nhấn thực sự nằm ở HBM4e!

Trung Quốc công bố danh sách 100 siêu máy tính hàng đầu, bất chấp lệnh trừng phạt của Mỹ

Danh sách 100 siêu máy tính hàng đầu của Trung Quốc đã được công bố, với một số máy đáng chú ý không được liệt kê trong danh sách siêu máy tính toàn cầu top500.org do Mỹ dẫn đầu.

AMD Instinct MI300: GPU trung tâm dữ liệu nhanh nhất của AMD với doanh thu 1 tỷ đô la trong năm đầu tiên

Trong nhiều năm qua, AMD đã cố gắng giành lấy một phần thị trường GPU trung tâm dữ liệu từ tay Nvidia. Tuy nhiên, công ty đã không đạt được nhiều thành công, chủ yếu là do sự hỗ trợ phần mềm kém cho GPU Instinct của mình. Nhưng có vẻ như tình hình đang được cải thiện và công ty cuối cùng đã có sản phẩm đột phá.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.

Microsoft cho biết việc mua GPU tính toán của Nvidia hiện dễ dàng hơn

Kevin Scott, giám đốc công nghệ của Microsoft, gần đây đã phát biểu tại Hội nghị Code ở Dana Point, California, rằng việc mua sắm GPU tính toán của Nvidia cho các ứng dụng trí tuệ nhân tạo và điện toán hiệu suất cao hiện ít thử thách hơn so với một vài tháng trước. "Cầu vượt xa nguồn cung GPU mà toàn bộ hệ sinh thái có thể sản xuất", Scott nói trong một cuộc phỏng vấn với The Verge. "Điều đó đang được giải quyết. Nó vẫn còn eo hẹp, nhưng nó đang tốt hơn mỗi tuần, và chúng tôi có nhiều tin tốt hơn là tin xấu về mặt đó, điều này thật tuyệt vời. […] Giờ đây, nó dễ dàng hơn so với lần cuối chúng tôi nói chuyện."

CEO OpenAI và cựu giám đốc thiết kế của Apple thảo luận về việc phát triển phần cứng AI

Sam Altman, CEO của OpenAI (công ty đứng sau ChatGPT), và cựu giám đốc thiết kế của Apple, Jony Ive, đã có những cuộc thảo luận về việc tạo ra phần cứng cho trí tuệ nhân tạo, theo một báo cáo từ The Information. Bài báo, trích dẫn hai nguồn tin ẩn danh, tuyên bố rằng CEO SoftBank, Masayoshi Son, cũng tham gia vào các cuộc đàm phán, nhưng "không rõ liệu ông ấy có tiếp tục tham gia hay không." Ive, OpenAI và SoftBank đã không trả lời ngay lập tức yêu cầu bình luận của ấn phẩm.

Nvidia sẽ theo chân AMD và Intel trong việc sử dụng thiết kế đa chiplet?

Không giống như các đối thủ AMD và Intel, Nvidia vẫn chưa triển khai thiết kế đa chiplet cho GPU máy tính hiệu năng cao, nhưng có vẻ như công ty đang trên đà cuối cùng sử dụng thiết kế bố trí này với thế hệ GPU Blackwell tiếp theo của mình. Ít nhất đó là những gì mà leaker phần cứng nổi tiếng @kopite7kimi đã nói, người có xu hướng có thông tin chính xác về ý định của Nvidia. Hiện tại, tất cả chỉ là suy đoán.

Nvidia bán 900 tấn GPU H100 trong quý 2 năm 2023

Khi Nvidia cho biết họ đã bán được 10,3 tỷ đô la doanh thu từ phần cứng trung tâm dữ liệu trong quý 2 năm tài chính 2024, chúng ta có thể tưởng tượng rằng công ty đã bán được hàng tấn GPU tính toán H100 cao cấp của mình, nhưng công ty nghiên cứu thị trường Omdia cho biết Nvidia đã thực sự bán được 900 tấn bộ xử lý H100 trong quý 2 năm dương lịch 2023.

Micron Cách Mạng Bộ Nhớ HBM: HBM4e Tùy Chỉnh Đột Phá Công Nghệ!

Micron vừa công bố thông tin cập nhật cực kỳ ấn tượng về chương trình HBM4 và HBM4e của mình, hứa hẹn một cuộc cách mạng trong lĩnh vực bộ nhớ. HBM4 thế hệ tiếp theo, với giao diện 2048-bit, dự kiến sẽ được sản xuất hàng loạt vào năm 2026. Nhưng điểm nhấn thực sự nằm ở HBM4e!

Trung Quốc công bố danh sách 100 siêu máy tính hàng đầu, bất chấp lệnh trừng phạt của Mỹ

Danh sách 100 siêu máy tính hàng đầu của Trung Quốc đã được công bố, với một số máy đáng chú ý không được liệt kê trong danh sách siêu máy tính toàn cầu top500.org do Mỹ dẫn đầu.

AMD Instinct MI300: GPU trung tâm dữ liệu nhanh nhất của AMD với doanh thu 1 tỷ đô la trong năm đầu tiên

Trong nhiều năm qua, AMD đã cố gắng giành lấy một phần thị trường GPU trung tâm dữ liệu từ tay Nvidia. Tuy nhiên, công ty đã không đạt được nhiều thành công, chủ yếu là do sự hỗ trợ phần mềm kém cho GPU Instinct của mình. Nhưng có vẻ như tình hình đang được cải thiện và công ty cuối cùng đã có sản phẩm đột phá.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.

Microsoft cho biết việc mua GPU tính toán của Nvidia hiện dễ dàng hơn

Kevin Scott, giám đốc công nghệ của Microsoft, gần đây đã phát biểu tại Hội nghị Code ở Dana Point, California, rằng việc mua sắm GPU tính toán của Nvidia cho các ứng dụng trí tuệ nhân tạo và điện toán hiệu suất cao hiện ít thử thách hơn so với một vài tháng trước. "Cầu vượt xa nguồn cung GPU mà toàn bộ hệ sinh thái có thể sản xuất", Scott nói trong một cuộc phỏng vấn với The Verge. "Điều đó đang được giải quyết. Nó vẫn còn eo hẹp, nhưng nó đang tốt hơn mỗi tuần, và chúng tôi có nhiều tin tốt hơn là tin xấu về mặt đó, điều này thật tuyệt vời. […] Giờ đây, nó dễ dàng hơn so với lần cuối chúng tôi nói chuyện."

CEO OpenAI và cựu giám đốc thiết kế của Apple thảo luận về việc phát triển phần cứng AI

Sam Altman, CEO của OpenAI (công ty đứng sau ChatGPT), và cựu giám đốc thiết kế của Apple, Jony Ive, đã có những cuộc thảo luận về việc tạo ra phần cứng cho trí tuệ nhân tạo, theo một báo cáo từ The Information. Bài báo, trích dẫn hai nguồn tin ẩn danh, tuyên bố rằng CEO SoftBank, Masayoshi Son, cũng tham gia vào các cuộc đàm phán, nhưng "không rõ liệu ông ấy có tiếp tục tham gia hay không." Ive, OpenAI và SoftBank đã không trả lời ngay lập tức yêu cầu bình luận của ấn phẩm.

Nvidia sẽ theo chân AMD và Intel trong việc sử dụng thiết kế đa chiplet?

Không giống như các đối thủ AMD và Intel, Nvidia vẫn chưa triển khai thiết kế đa chiplet cho GPU máy tính hiệu năng cao, nhưng có vẻ như công ty đang trên đà cuối cùng sử dụng thiết kế bố trí này với thế hệ GPU Blackwell tiếp theo của mình. Ít nhất đó là những gì mà leaker phần cứng nổi tiếng @kopite7kimi đã nói, người có xu hướng có thông tin chính xác về ý định của Nvidia. Hiện tại, tất cả chỉ là suy đoán.

Nvidia bán 900 tấn GPU H100 trong quý 2 năm 2023

Khi Nvidia cho biết họ đã bán được 10,3 tỷ đô la doanh thu từ phần cứng trung tâm dữ liệu trong quý 2 năm tài chính 2024, chúng ta có thể tưởng tượng rằng công ty đã bán được hàng tấn GPU tính toán H100 cao cấp của mình, nhưng công ty nghiên cứu thị trường Omdia cho biết Nvidia đã thực sự bán được 900 tấn bộ xử lý H100 trong quý 2 năm dương lịch 2023.